Inégalité de concentration

Propriété Inégalité de concentration

Soit \((X_1,\ldots,X_n)\) un échantillon de  \(n\) variables aléatoires indépendantes et  \(M_n\) la variable aléatoire moyenne de cette échantillon.
Alors, pour tout réel  \(\delta\) strictement positif,  \(P(|M_n-E(X_1)|\geqslant \delta ) \leqslant \dfrac{V(X_1)}{n\delta^2}\) .

Démonstration

On applique l'inégalité de Bienaymé-Tchebychev à la variable aléatoire  \(M_n\) .
Pour tout réel strictement positif  \(\delta\) , on a alors  \(P(|M(_n)-E(M_n)|\geqslant \delta) \leqslant \dfrac{V(M_n)}{\delta ^2}\) .
Or,  \(E(M_n)=E(X_1)\)  et  \(V(M_n)=\dfrac{V(X_1)}{n}\) .
On a donc bien   \(P(|M_n-E(X_1)|\geqslant \delta ) \leqslant \dfrac{V(X_1)}{n\delta^2}\)

Exemple

Soit  \(X\) une variable aléatoire d'espérance 3 et de variance 100.
Soit \(n\)  un entier naturel non nul.
On considère un échantillon \((X_1, \ldots, X_{n})\)  de variables aléatoires indépendantes de même loi que  \(X\) et on note \(M_{n} = \dfrac{1}{n} (X_1+X_2+\ldots + X_{n})\) .
Pour tout réel  \(\delta\) strictement positif, on a alors  \(P(|M_n-E(X_1)|\geqslant \delta ) \leqslant \dfrac{V(X_1)}{n\delta ^2}\) .
C'est-à-dire,  \(P(|M_n-3|\geqslant \delta ) \leqslant \dfrac{100}{n\delta ^2}\) .
En particulier, pour \(n=100\,000\) et  \(\delta=0,1\) , on a  \(P(|M_n-3|\geqslant 0,1 ) \leqslant \dfrac{100}{100\,000\times 0,1^2}\)  c'est-à-dire  \(P(|M_n-3|\geqslant 0,1 ) \leqslant 0,1\) .
En passant par le complémentaire, on obtient :  \(P(|M_n-3| < 0,1 ) = 1 - P(|M_n-3|\geqslant 0,1 ) \geqslant 0,9\) .

Bien que la variable aléatoire  \(X\) ait une grande variance, si l'on répète un grand nombre de fois l'expérience aléatoire, la moyenne des résultats est très proche de l'espérance de  \(X\) : avec une probabilité supérieure à 0,9, la moyenne se situe entre 2,9 et 3,1.